用户历史中的个性化物品表示 PRISM
🧭 序列推荐 · 个性化历史表示 ★ 深度解读
Meta MRS · Facebook Discovery
复用上游排序计算，为每个用户-物品对生成个性化历史嵌入，提升下游序列推荐质量
📌 工作参考价值（4 点）
- 复用上游排序器中间状态：不需要为历史序列单独训练一个 user-item 模型，而是从现成的 ranker 中提取 user tower、user-item tower 和 session mixing 的隐藏层，用 autoencoder 压缩成一个固定维度的 event embedding。这样可以把昂贵的个性化计算摊销到上游推理，下游只读取轻量向量。
- 多层状态联合压缩：将 user 状态、pair 状态、同请求候选混合状态的所有层 concatenate 后做归一化，再用一个带重构损失的 autoencoder 压缩到 128 维。注意对每一部分做 per-part normalization 控制尺度，并用 softsign 限制输出范围；重构损失只更新 encoder/decoder，不干扰主任务。这比只取最后一层或简单 pooling 信息更丰富。
- 个性化历史长度存在幂律收益：实验测得 NE 提升随历史长度 L 呈 ~L^0.468 增长，说明保留更多个性化事件是有持续收益的，但边际递减。业务上可以据此做 ROI 分析，选择合适的历史长度与存储成本。
- 工程落地细节：导出的 embedding 采用 INT8 量化，附带时间戳和生成器版本，下游通过版本化投影矩阵读取，兼容模型迭代。这种版本管理对线上推荐系统很实用，避免旧 embedding 失效。
HubMixer：推荐系统中渐进式潜在 Hub 混合的参数高效特征交互
🧭 参数高效特征交互 · 潜在 Hub 混合 ★ 深度解读
Kuaishou Technology · Tsinghua University
用少量可学习 latent hubs 组织异构特征交互，参数更少、AUC 更高
📌 工作参考价值（4 点）
- 在已 token 化的精排模型里，若不想对全量 token 做 O(T^2) 交互，可引入 H 个可学习 hubs（H<<T）做 induction→hub self-attention→token readout，计算降到 O(TH)，适合电商/广告 ranking 做参数受控升级。
- 保留 token 级 field identity：不要将交互后的 hubs 池化成全局向量广播；用 token-conditioned cross-attention readout + LayerScale 残差写回，多任务各目标能按需取不同交互语义，避免全局坍缩。
- 静态 learnable hubs 加一个由 mean-pool token 生成的输入条件残差，成本低但能让 hub 随样本软路由；T=32 时 H=16 是精度/参数甜点，再多收益饱和，可作为默认配置参考。
- cross-attention 在 H<<T 时是小矩阵计算，批处理友好、便于 kernel fusion，适合在已有 token-mixing 排序模型上做轻量替换并上线验证深度转化目标。
TAGR：面向工业直播广告的时序自适应生成式推荐
🧭 生成式推荐 · 动态Semantic ID与策略优化 ★ 深度解读
Kuaishou Technology · Tsinghua University
动态LSID、多尺度意图建模与间歇性在线策略偏好优化，使直播广告生成式推荐收入提升16.1%
📌 工作参考价值（4 点）
- 动态 token 化：对直播间、闪购活动等时效性实体，周期性刷新 Semantic ID（如每分钟）并保持稳定词表，使用 RQ-KMeans 量化 + streamer-aware hash 降低碰撞；实时更新双向索引即可支持新广告检索，无需重建全库。
- 意图建模：将高密度浅层行为（进入直播间）做多时间尺度下采样（stride 1/2/10），深层行为（加购、下单）分开通道编码；用 post-request 反馈深度（如加购/下单强于曝光）加权 NTP 损失，可迁移到用户序列建模。
- 偏好对齐：在线 RL 采用间歇性 on-policy GRPO，穿插监督 NTP 维护，避免连续 RL 梯度干扰；BA-GRPO 用生成 ID 与真实下一 ID 的 token 嵌入余弦相似度做行为锚，VA-GRPO 用 RM 融合 engagement 和 eCPM，组合可平衡行为相关与商业价值。
- 工程部署：动态 token 更新 + 双向索引，支持 >2500 QPS/GPU、<100ms 延迟，为生成式检索的实时化提供参考。
DrEM：面向带噪 pxtr 预测的双侧鲁棒集成排序框架
🧭 推荐系统 · 集成排序 · 鲁棒学习 ★ 深度解读
Shenzhen University · Kuaishou Technology
提出 DrEM，用共享 logit 噪声模型同时校正 pxtr 噪声造成的监督侧偏好翻转和特征侧输出不稳定
📌 工作参考价值（4 点）
- 电商/广告多目标融合排序中，上游 pCTR/pCVR/pCVR 等分同时充当特征和代理监督是常见做法；可直接复用 DrEM 的双侧结构：监督侧做 pair 级 flip 校正，特征侧做一致性正则，并让两侧共享同一噪声参数。
- 上游预测噪声方差无法观测，工程上可用 DrEM 的 bucketing + probit 估计：按 pxtr 分桶，用后验行为均值与预测均值的聚合偏差反推 logit 空间 σ²，便于流式更新。
- 特征侧不要无脑加对抗扰动；先做 preference-preserving filtering，只对扰动前后序一致的 pair 施加 rank consistency，避免与主 ranking loss 冲突。
- 线上收益对稀疏互动目标更明显（Follow/Comment 提升超 1%）；如果业务关注收藏、评论、转发等稀疏行为，应优先在这些 pxtr 任务上做 flip 概率驱动的自适应校正和 item 级扰动。
NOVA：面向工业推荐系统架构演进的验证感知多智能体框架
🧭 Agent辅助架构自动演进 ★ 深度解读
Tencent Inc.
将模型架构修改视为反馈驱动的搜索，用“架构梯度”指导修改并级联验证扼杀静默失败
📌 工作参考价值（4 点）
- 架构搜索即反馈控制：借鉴SGD思想构造不可微的“架构梯度”，聚合上一次修改、验证诊断、指标差量和轨迹记忆，指引下一次修改方向；该模式可直接用于线上模型的自动化调参/升级，比盲测更经济。
- 多级验证阻断静默失败：在真实训练前加入结构语义门（检查shape/mask/特征映射/融合路径），使可编译但结构错误的候选提前终止，并将失败模式存储为后续迭代的“禁止方向”，能大幅减少无效GPU消耗。
- 风险分级与人工确认路由：按任务复杂度分L1–L4，高风险或技能覆盖不足的修改自动切至Copilot模式要求人工确认，这种生产安全机制可直接嵌入AutoML或Agent pipeline。
- 失败信号复用为搜索知识：除指标反馈外，将语义验证和工程失败模式结构化存入轨迹记忆，形成可复用的禁止方向，让后续迭代自动避开已知坑点，这一工程化trick可显著提升迭代有效率。